แกรนด์ดัชเชสโอลกาประสูติที่พระราชวังปาฟลอฟก์ ใกล้กรุงเซนต์ปีเตอร์สเบิร์ก ในวันที่ 3 กันยายน [ปฏิทินเก่า 22 สิงหาคม] ค.ศ. 1851 ทรงเป็นบุตรองค์ที่สองและเป็นพระธิดาในแกรนด์ดยุกคอนสแตนติน นีโคลาเยวิชกับแกรนด์ดัชเชสอเล็กซานดรา ซึ่งเดิมคือเจ้าหญิงแห่งซัคเซิน-อัลเทนบูร์ก โดยผ่านทางพระบิราชบิดา แกรนด์ดัชเชสโอลกาเป็นพระราชนัดดา (หลานปู่) ในจักรพรรดินีโคลัสที่ 1 แห่งรัสเซีย และเป็นพระภาติยะ (หลานลุง) ในจักรพรรดิอะเลคซันดร์ที่ 2 แห่งรัสเซีย และเป็นพระญาติในจักรพรรดิอะเลคซันดร์ที่ 3 แห่งรัสเซีย[1]

ช่วงวัยเยาว์ทรงใช้พระชนม์ชีพในพระตำหนักของพระราชบิดา รวมทั้งพระราชวังปาฟลอฟก์และที่พำนักในคาบสมุทรไครเมีย พระราชบิดาของพระองค์เป็นพระอนุชาในจักรพรรดิอะเลคซันดร์ที่ 2[2] และพระราชมารดาของพระองค์ทรงได้รับการยอมรับว่าเป็นหนึ่งในสตรีที่ฉลาดและสง่างามที่สุดในราชสำนัก[3] แกรนด์ดัชเชสโอลกาทรงสนิทกับพระเชษฐา คือ แกรนด์ดยุกนิโคลัสอย่างมาก และเป็นหนึ่งในพระราชวงศ์เพียงไม่กี่พระองค์ที่ยังทรงติดต่อกับแกรนด์ดยุกอยู่หลังจากที่พระองค์ทรงถูกเนรเทศไปยังทาชเคนต์[4]

ขณะทรงพระเยาว์ แกรนด์ดัชเชสโอลกาทรงถูกกล่าวถึงว่าเป็นสาวน้อยเรียบ ๆ และอวบอ้วนด้วยพระพักตร์ที่กว้างและมีพระเนตรสีฟ้าใหญ่[5] ซึ่งแตกต่างจากพระขนิษฐาของพระองค์ คือ แกรนด์ดัชเชสเวรา ซึ่งมีพระอารมณ์สงบเสงี่ยม แต่ก็ทรงขี้อายอย่างมาก ตัวอย่างเช่นเมื่อทรงถูกซักถามโดยพระอาจารย์เกี่ยวกับบทเรียน พระองค์จะมีน้ำพระเนตรไหลเต็มและวิ่งออกไปจากห้องเรียน[6]

ใน ค.ศ. 1862 แกรนด์ดยุกคอนสแตนติน นีโคลาเยวิชได้รับการแต่งตั้งให้เป็นอุปราชแห่งรัสเซียโปแลนด์โดยพระราชโองการของพระเชษฐา และต้องย้ายไปยังวอร์ซอพร้อมพระมเหสีและพระโอรสธิดา การประทับที่โปแลนด์เป็นเรื่องยากลำบากสำหรับแกรนด์ดยุกคอนสแตนติน ซึ่งทรงเป็นเหยื่อในความพยายามลอบปลงพระชนม์โดยนักชาตินิยมในวันที่พระองค์เสด็จถึงเมืองหลวงของโปแลนด์[7] แม้ว่าแกรนด์ดยุกคอนสแตนตินจะทรงริเริ่มดำเนินการในการเปิดเสรีและจัดตั้งให้ภาษาโปแลนด์เป็นภาษาทางการอีกครั้ง[7] แต่การก่อกวนการปฏิรูปโดยกลุ่มชาตินิยมโปแลนด์ก็ได้ทำให้เกิดความไม่พอใจขึ้น ท้ายสุดการลุกฮือเดือนมกราคม ค.ศ. 1863 และการทำให้รุนแรงขึ้นของฝ่ายแบ่งแยกดินแดนได้ผลักดันให้พระเจ้าซาร์ทรงเรียกพระอนุชากลับในเดือนสิงหาคม[8] ประสบการณ์อันยากลำบากของแกรนด์ดัชเชสโอลกาในโปแลนด์ได้เป็นรอยแผลลึกในพระทัยของพระองค์[9]